【星岛综合报道】安大略省家电制造商Stirling Marathon近日无端卷入一场AI诈骗风波。有人利用人工智能生成内容,搭配公司真实的产品行销照片及工厂影像,制作一支长达16分钟的YouTube影片,虚构一款名为“Keel”的洗衣机,宣称将颠覆北美洗衣机市场。
影片内容声称,这款洗衣机采用可更换的模组化电子零件、故障防护感测器,并具有节省用水等优势,甚至以“颠覆产业”作为宣传卖点。
然而,这一切都是假的。
Stirling Marathon自2016年以来主要生产及销售冰箱、冷冻柜与冷藏设备,根本没有洗衣机产品线。
消费者信以为真 公司电话接不完
Stirling Marathon客服代表Jordan Cuddihy表示,公司上周开始陆续收到大量询问,讯息来自北美各地,甚至遍及全球。数百封电子邮件、电话及社群媒体讯息,询问产品的贩售地点及购买方式,甚至有消费者直接前往公司厂区,希望亲眼确认或购买这款洗衣机。
一头雾水的他便上网搜寻,结果发现有一支YouTube影片,才意识到公司遭人冒名宣传。
更令人错愕的是,影片不仅使用Stirling Marathon的产品及工厂照片,还挪用了公司副总裁Phil Greenway的肖像,让他看起来像是这款虚构洗衣机的相关人物。
Greenway表示,看到自己的脸出现在一款根本不属于公司的产品宣传影片中,感觉很荒谬。尤其影片宣称的技术是否真实存在,都令人怀疑。
他认为,影片很可能是由AI机器人蒐集网路上的公司照片、过往新闻报导及影片,再拼凑生成。
多伦多Vector Institute应用机器学习科学家Shaina Raza分析影片后指出,其中存在多项疑似AI生成的痕迹。
例如,洗衣机内部的模组数量在不同画面中不断变化,部分文字及数字也缺乏合理性,出现AI生成图片常见的数学与细节错误。
滑铁卢大学电机与电脑工程系副教授Kami Vaniea则认为,透过YouTube观看次数获利,可能是制作这类影片的动机之一。
她指出,如果创作者能利用AI大量制作影片,便不需要投入太多时间与成本,只要吸引足够观众订阅频道,即使每次观看带来的收入不高,累积起来仍可能有利可图。
此外,这支影片还附上一个20美元的电子书购买连结。Vaniea怀疑,这也是诈骗者试图获利的方式之一,透过影片吸引流量,再诱导部分观众付费购买可能同样由AI生成的内容。

频道及影片遭下架
Stirling Marathon发现异常后,随即向YouTube及Facebook检举。
CBC向YouTube查询后,平台表示,公司严格禁止诈骗、欺骗性行为及冒充他人的内容,经审查后,已确认涉事频道违反社群规范,因此予以终止,相关影片也已下架。
YouTube并表示,自2024年起,平台便针对创作者主动揭露使用AI工具制作的内容加上标示。若上传的影片包含经重大修改或合成、且足以让人误认为真实的内容,创作者有义务主动揭露,平台也可以在创作者未标示时自行加注说明。
不过,Greenway认为,整起事件最令人担忧的地方之一,是这支影片在遭到下架前,并未被YouTube标记为AI生成内容。
他认为,平台有责任让观众清楚辨识这类合成内容。
AI诈骗难追查 企业盼将危机转为曝光机会
CBC新闻视觉查证团队进一步调查发现,与遭下架YouTube频道相关联的Instagram帐号,所在地为印度。
然而,Vaniea提醒,网路诈骗的幕后来源往往难以追查,即使掌握部分线索,消费者也未必有能力采取有效行动。
她指出,这类手法其实并不新鲜,过去诈骗电子邮件就经常冒用合法企业或机构的名义,利用对方的信誉取得好处,却将后续问题及损失留给真正的企业承担。如今只是透过AI技术,以更逼真的影音形式重现类似手法。
尽管无端遭到冒名,Greenway仍试图从事件中找到正面意义。他表示,这次风波意外让更多人认识Stirling Marathon及其品牌,也让公司获得额外曝光。
网路图片
v01
Vandica News,免费看新闻!